Кръстникът на ИИ: Напълно възможно е човечеството да е само преходен етап в еволюцията на интелигентността
Наричан още „ Кръстникът на изкуствения разсъдък “, проф. Джефри Хинтън има основна роля в основаването на методите, които през днешния ден са в основата на актуалните системи за изкуствен интелект (AI). Ранната му работа в региона на изкуствените невронни мрежи му носи влиятелната награда „ Тюринг “, а един от учениците му, Иля Суцкевер, става съосновател на OpenAI, организацията, която стои зад ChatGPT.
В качеството си на човек, който от десетилетия способства за развиването на тази област, неговите предизвестия имат особена тежест. Затова, когато неотдавна се отдръпна от своя пост в Гугъл и изрази опасенията си по отношение на евентуалните опасности, светът се вслуша.
Хинтън бе и един от подписалите отвореното писмо, оповестено през март предходната година, в което се призоваваше за 6-месечна пауза в създаването на изкуствен интелект, по-напреднал от GPT-4. Всъщност, едно от най-разпространените опасения е, че изкуственият разсъдък може да доближи просветеност, сходна или по-напреднала от нашата. Термин, прочут още като „ неестествен общ разсъдък “ (AGI) в софтуерните среди.
Но по какъв начин тъкмо можем да определим интелигентността на една AI система и би трябвало ли да я съпоставяме с нашата лична?
Според Хинтън, елементарно можем да попаднем в клопката на сравнението сред изкуствения и човешкия разсъдък. Например, езиковите модели като GPT-4 могат да основават наличие, което в доста връзки е поразително близо до човешкото. Освен това имат забавната дарба да „ халюцинират “ или да основават измислени сюжети, сходно на човешката креативност. Въпреки това слагането на знак за тъждество сред изкуствения и човешкия разсъдък въз основа на тези прилики е лимитирано, пише aibulgaria.com.
Хинтън счита, че би трябвало да приемем „ AI като форма на просветеност, която е фундаментално друга от нашата “.
Ние сме биологични системи, а те са цифрови. За разлика от хората, AI системите могат незабавно да споделят информация между тях. Ако науча нещо за квантовата механика и желая да предам наученото, това е дълъг и сложен развой – показва той.
Но в случай че имам 10 000 невронни мрежи, всяка със собствен личен опит и опция за незабавно шерване на наученото. Това е голяма разлика. Това е все едно да имате 10 000 души и незабавно щом един от тях научи дадена идея, всички да я схванат.
Освен това, имайки способността да обработват тези големи количества данни, AI системите са способни да откриват зависимости и трендове, които са скрити за нас, тъкмо както доктор, който е излекувал 10 000 пациенти, е в положение да открие повече зависимости и да направи изводи с доста по-голяма акуратност, в сравнение с доктор, който е лекувал единствено хиляда.
Ако изкуственият разсъдък е фундаментално друг от нашия, то тогава би следвало да приемем, че не можем (или не бива) да го съпоставяме със себе си. Според Хинтън е „ изцяло допустимо човечеството да е единствено временен стадий в еволюцията на интелигентността “, с други думи, ние като биологичен разсъдък сътворяваме нова „ изкуствена форма на просветеност “, която, учейки се от нас и усвоявайки всичко, основано от нас, ще доближи равнища на просветеност и успеваемост, неразбираеми за човешкия мозък.
Тези неща схващат. И защото те схващат, би трябвало съществено да помислим какво ще се случи в следствие от това. А ние просто не знаем – показа Хинтън в неотдавнашно интервю за „ CBS 60 минути “.
Според него една от най-големите рискове е, че „ системите могат да стартират да пишат собствен личен код, да се модифицират и да избягат от нашия надзор “ Той също по този начин изрази мнение, че е „ допустимо да погледнем обратно и да забележим, че това е бил един тип преломен миг, когато човечеството е трябвало да вземе решение дали да продължи да развива тези технологии или не “.
Намираме се в интервал на огромна неустановеност, в който сме изправени пред провокации, пред които не сме се изправяли до момента. Когато навлизаме в непозната територия, постоянно позволяваме неточности, само че с тази технология е неприемливо да сгрешим – предизвестява „ Кръстникът на изкуствения разсъдък “.
